Sekolah ini yang dahulunya dikenali sebagai Sekolah Menengah Sains Melaka telah didirikan di kawasan berbukit dengan ketinggian 121.9 meter dari aras laut. Keluasan asalnya ialah 12.9 hektar. Sejarah sekolah ini telah bermula pada tanggal 5 Januari 1973. Pada tarikh ini, seramai 120 orang pelajar Tingkatan 1 terdiri daripada 80 orang pelajar lelaki dan 40 orang pelajar perempuan sebagai perintis telah ditempatkan di SMK Munsyi Abdullah, Batu Berendam, Melaka sementara menunggu bangunan sekolah ini siap. Oleh kerana bangunan Sekolah Menengah Sains Muzaffar Syah ini lambat disiapkan, pelajar-pelajar tersebut telah dipindahkan ke Sekolah Menengah Sains Johor di Kluang pada tahun berikutnya.

Pada 3 Januari 1976, seramai 120 orang pelajar Tingkatan 1 telah ditumpangkan sekali lagi di SMK Munsyi Abdullah.

Mereka telah ditempatkan di Sekolah Menengah Sains Muzaffar Syah, Melaka pada 10 Mei 1976. Pada mulanya, sekolah ini mempunyai 22 buah kelas, pejabat, perpustakaan, bilik kakitangan, makmal bahasa, bilik media, bilik kaunseling, koperasi, hidup bengkel kemahiran untuk Ekonomi Rumah Tangga (ERT) dan Kemahiran Manipulatif Latest (KMT), doktor gigi bilik, sakit teluk, pejabat asrama dan lain-lain. Pada tahun 2001, surau Al-Abrar telah dibina dan dirasmikan oleh Yang di-Pertua Negeri Melaka serta pembinaan lampu sorot di sekolah, asrama dan padang. Untuk menggalakkan penglibatan pelajar dengan ICT, dasar sekolah membolehkan pelajar untuk membawa komputer riba masing-masing. Sekolah juga disediakan dengan perkhidmatan Wi-Fi percuma oleh Kerajaan Melaka.

Pada tahun 1978 dengan kerjasama Unit Matrikulasi Universiti Kebangsaan Malaysia (UKM), sekolah ini telah diberi kepercayaan untuk menjalankan Kursus Matrikulasi, satu kursus intensif setahun untuk pelajar-pelajar Universiti Kebangsaan Malaysia. Kumpulan pertama pelajar-pelajar Kursus Matrikulasi ini terdiri daripada 102 orang pelajar yang didatangkan dari seluruh Malaysia. Tingkatan 6 dihentikan dan kelas Matrikulasi UKM disambungkan semula dengan memulakan Kelas Matrikulasi Sains Kejuruteraan.

Pada Oktober 1983, sekolah ini yang nama asalnya Sekolah Menengah Sains Melaka telah dengan rasminya bertukar kepada Sekolah Muzaffar Syah, mengambil sempena nama Sultan Muzaffar Syah iaitu Sultan Melaka yang keempat. Muzaffar juga bermaksud menang dalam bahasa Arab Perasmian pertukaran nama ini telah disempurnakan oleh Tuan Yang Terutama Yang di-Pertua Negeri Melaka, Tun Syed Zahiruddin bin Syed Hassan.

Pada tahun 1998, sekolah ini telah diiktiraf sebagai satu daripada 88 buah Sekolah Bestari di Malaysia. Pada tahun 2007, padang MOZAC telah menjadi tempat latihan untuk Manchester United untuk Piala Juara-Juara Belia 2007 dan juga telah dinaik taraf sebagai Sekolah Bestari 5 Bintang. Pada tahun 2008, tanah runtuh telah berlaku. Kebanyakan sebelah atas padang teruk terjejas. Pada tahun itu juga, sekolah ini memperoleh status Sekolah Kluster diikuti oleh Sekolah Berprestasi Tinggi pada 2010.

Pada tahun 2017, sekolah ini mempunyai seramai 614 orang pelajar iaitu 324 pelajar lelaki dan 290 orang pelajar perempuan. Sekolah ini juga terdiri daripada pelajar tingkatan satu hingga tingkatan lima yang mana setiap tingkatan mempunyai lima buah kelas (Alpha, Beta, Omega, Sigma dan Theta). Kelas Sigma dikhaskan untuk pelajar perempuan sahaja manakala kelas Theta pula dikhaskan pelajar lelaki. Pada tahun ini juga kelas tingkatan satu dibahagikan kepada kelas DLP dan bukan DLP (Dual Language Programme).